Съдебни дела твърдят, че Roblox застрашава децата. Новата проверка на възрастта с AI има за цел да им попречи да чатят с възрастни

Вижте всички тематики Връзката е копирана! Следвайте

Ако потребителите на Roblox желаят да пишат в платформата за онлайн игри, те скоро ще би трябвало да потвърдят възрастта си, като дават държавен документ за идентичност или като разрешат на инструмент за оценка на възрастта с изкуствен интелект да снима лицето им.

Този ход идва, защото платформата е изправена пред поредност от правосъдни каузи и други изказвания, че е разрешила на полови хищници да се свързват с деца и да ги малтретират. Roblox сподели, че обновената политика ще улесни предотвратяването на младите консуматори да се свързват с възрастни непознати.

Roblox е платформа, където потребителите могат да основават и играят онлайн игри и да взаимодействат между тях. За разлика от доста други онлайн платформи, Roblox разрешава на консуматори под 13 години; платформата от дълго време се популяризира като занимателен метод децата да се научат да кодират. Има повече от 150 милиона консуматори в международен мащаб, една трета от които са под 13 години.

Но компанията попадна под микроскоп след известия за деца, които са били подстригвани, измъчвани и в някои случаи даже отвличани от възрастни, които са срещнали в Roblox.

Главните прокурори на Кентъки и Луизиана заведоха обособени каузи, обвиняващи Roblox в пострадване на деца по-рано тази година. Главният прокурор на Флорида също подаде наказателна призовка за търсене на информация от компанията предишния месец и назова Roblox „ разплодник на хищници “.

Отделни фамилии също са съдили компанията, в това число Бека Далас, която твърди, че нейният 15-годишен наследник, Итън, е умрял от самоубийство, откакто е бил поддържан посредством Roblox и уеб страницата за известия Discord.

Roblox към този момент има някои политики и функционалности, предопределени да защитят младите потребители; да вземем за пример, той предлага наставнически надзор, блокира шерването на фотоси и персонална информация и употребява човешко и AI текст и гласово модериране. Освен това изисква потребителите да потвърдят възрастта си, с цел да получат достъп до избрани „ 17+ “ преживявания, като игри с тежко принуждение или недодялан комизъм. Но актуализацията, оповестена във вторник, се чака доста да усили броя на потребителите, които удостоверяват възрастта си на платформата, споделиха ръководители в диалог с кореспонденти.

„ Нашият приоритет е сигурността и вежливостта “, сподели основният чиновник по сигурността на Roblox Мат Кауфман. " Искаме да създадем Roblox безвредно, позитивно, уместно за възрастта преживяване за всеки. Поставяме извънредно високи стандарти за себе си и разбираме, че обществеността чака същото от нас. "

Съобщението във вторник съответствува с плануван „ виртуален митинг “ в границите на Roblox, плануван от организацията с нестопанска цел ParentsTogether Action, за приканване за повече функционалности за сигурност на младежите в платформата, в това число по-силна отбрана на поверителността по дифолт за консуматори под 13 години. Това също по този начин идва на фона на по-широк напън от страна на онлайн платформите за установяване на възрастта на потребителите, с цел да се защитят младите хора; YouTube и Meta са измежду другите известни приложения, употребяващи AI за оценка на възрастта, макар че инструментите варират в другите платформи.

Съгласно новата политика всички консуматори ще би трябвало да потвърдят възрастта си, преди да получат достъп до функционалностите за чат в Roblox.

Ако потребителите изберат да не качват персонална карта, те ще би трябвало да снимат лицата си, с цел да може AI да оцени възрастта им, употребявайки технология от компанията за инспекция на самоличността Persona. Инструментът употребява предната камера на устройството на потребителя и го подканва да движи лицето си в избрани направления, с цел да се увери, че същински човек прави инспекцията. AI ще сложи потребителите в подобен възрастов диапазон — под 9, 9-12, 13-15, 16-17, 18-20 или 21+ — и ще им бъде позволено да беседват единствено с други консуматори в или покрай този диапазон.

Потребител, който се прави оценка на 12 години, да вземем за пример, ще може да беседва с консуматори на възраст 15 и по-млади, само че не и на 16 и повече години, съгласно Roblox.

Ако AI сложи някого в неверната възрастова група, потребителите над 13 години могат да качат ID, с цел да поправят възрастта си. Родителите, чиито сметки са свързани с този на детето им посредством инструментите за наставнически надзор на Roblox, също могат да поправят възрастта на детето си. (Проверките за идентичност са налични единствено за консуматори над 13 години, евентуално тъй като разпоредбите за дискретност онлайн са по-строги за по-малките деца.)

Roblox споделя, че изображенията на лицата на потребителите ще се употребяват единствено за оценка на възрастта и ще бъдат изтрити, откакто потребителите бъдат сложени в кофа за възраст.

„ Ние виждаме тези промени като метод да подсигуряваме, че потребителите могат да поддържат връзка с други хора в подобаващи възрастови групи, само че също по този начин оказват помощ за ограничение на контакта сред малолетни и възрастни, които не познават “, сподели Раджив Бхатия, вицепрезидент на Roblox и началник на артикул за консуматори и разкриване.

Roblox отхвърли да показа съответен % на акуратност за своята AI технология за оценка на възрастта. Кауфман сподели, че „ нормално е много прецизен в границите на една или две години “ за консуматори сред 5 и 25 години.

Някои консуматори са намерили заобиколни решения за технологията за оценка на възрастта на сканиране на лица на други платформи, като да вземем за пример посредством потребление на изображения на герои от видеоигри или селфита на други хора. Но Кауфман сподели, че технологията на Roblox разполага с „ много постоянни инспекции за измами “, с цел да дефинира дали лицето е „ онлайн “ и „ се движи и следва указания “. Той добави, че системата също по този начин търси „ други аномалии, като хора, които се пробват да повтарят да употребяват едно и също лице още веднъж и още веднъж “.

Roblox ще вкара инспекция на възрастта на доброволна основа от вторник. То ще стане наложително в Австралия, Нова Зеландия и Холандия през декември и в международен мащаб при започване на идната година.